Meta трябва да направи повече, за да се справи с неконсенсусното, дълбоко фалшиво порно, казва Надзорният съвет
Meta не съумя да отстрани очевиден, генериран от AI облик на индийска обществена фигура, до момента в който не беше разпитан от нейния Надзорен съвет, сподели бордът в четвъртък в отчет, който приканва софтуерния колос да направи повече за справяне с голи deepfakes без единодушие на своите платформи.
Докладът е резултат от следствие, оповестено от Надзорния съвет на Meta през април по отношение на боравенето на Meta с надълбоко подправена порнография, в това число два съответни случая, при които са оповестени експлицитни изображения на американска обществена фигура и индийска социална фигура.
Заплахата от генерираната от изкуствен интелект порнография притегли вниманието през последните месеци, като знаменитости като Тейлър Суифт, както и американски гимназисти и други жени по света, станаха жертва на формата на онлайн корист. Широко наличните генериращи AI принадлежности направиха по-бързо, по-лесно и по-евтино основаването на такива изображения. Социалните медийни платформи, в това число Meta, където сходни изображения могат да се разпространяват бързо, са изправени пред възходящ напън за битка с казуса.
В случая с изображението на американската обществена персона, оповестено във Фейсбук - което беше генерирано от изкуствен интелект и я изобразяваше като гола и опипвана - компанията неотложно отстрани фотографията, която преди този момент беше добавена към съответстваща банка, която автоматизирано открива предписание - разбиващи изображения. Но в тази ситуация с индийската социална фигура, макар че изображението беше докладвано два пъти на Meta, компанията не отстрани изображението от Instagram, до момента в който Надзорният съвет не се зае със случая.
„ Meta реши, че първичното й решение да остави наличието в Instagram е неправилно и компанията отстрани обявата заради нарушение на стандарта на общността за малтретиране и тормоз “, се споделя в отчета на Надзорния съвет. „ По-късно, откакто Бордът стартира разискванията си, Meta деактивира акаунта, който разгласява наличието. “
Докладът допуска, че Meta не ползва поредно разпоредбите си против полови изображения без единодушие, макар че напредъкът в изкуствения разсъдък направи тази форма на тормоз все по-често срещана. Докладът също по този начин показва продължаващи проблеми при модерирането на наличието на Meta в страни, които не са западни или неанглоговорящи, за което компанията е била подложена на критика преди.
Meta сподели в изказване, че приветства решението на борда. Добавя се, че до момента в който съответните изявления, посочени в отчета, към този момент са отстранени, компанията ще „ предприеме дейности “ във връзка с изображения на индийската обществена фигура, които са „ идентични и в същия подтекст “ като тези, подчертани от Надзорния съвет „ където механически и оперативно е допустимо да се направи това.
В своя отчет Надзорният съвет — квази-независим индивид, формиран от специалисти в области като свободата на изложение и правата на индивида — изложи спомагателни рекомендации за това по какъв начин Meta може да усъвършенства напъните си за битка със сексуализираните дълбоки фейкове. Той прикани компанията да направи разпоредбите си по-ясни, като актуализира своята възбрана против „ позорен сексуализиран фотошоп “, с цел да включи съответно думата „ без единодушие “ и ясно да обхване други техники за манипулиране на фотоси, като AI.
Според отчета Meta е споделила на борда, че в началото не е добавила изображението на индийската социална персона към своята нарушаваща разпоредбите банка за сравнение на фотоси, защото не е имало вести за това, до момента в който медиите са отразявали изображенията на Съединени американски щати държавник. „ Това е обезпокоително, защото доста жертви на надълбоко подправени интимни изображения не са в очите на обществеността и са принудени или да одобряват разпространяването на техните изображения без единодушие, или да търсят и рапортуват всеки случай “, сподели Бордът, добавяйки, че Мета може да обмисли други фактори, в това число дали обещано изображение е генерирано от AI, когато се дефинира дали да се добави към банката.
След като бордът стартира своето следствие през април, Meta добави изображението към своята банка за съвпадане на фотоси.
Стремежът да се борим с дълбоките фалшификации без единодушие е единствено част от по-големите старания на Meta за попречване на половата употреба на своите консуматори. Компанията в сряда съобщи, че е премахнала към 63 000 акаунта в Нигерия, които са взели участие във финансови измами за полов изнудване, при които хора (често тийнейджъри) са подмамвани да изпращат голи изображения и по-късно са изнудвани.
